„Хората ще станат по-скептични към изборния процес“: Как AI и deepfakes заплашват изборите

Изкуственият разсъдък (AI) и deepfakes ще бъдат фактор в идните избори в Ирландия, съгласно старши учител по компютърни науки.

Неотдавнашно предложение, импортирано от сенатора на Fianna Fáil Малкълм Бърн, прикани Избирателната комисия да сътвори тактика за справяне със злоупотребата с изкуствения разсъдък в политическите акции.

Димпна О'Съливан, старши учител и помощник-ръководител на факултета по компютърни науки към Техническия университет в Дъблин, счита, че опасността е доста действителна, защото Ирландия се насочва към претрупан интервал на избори.

През 2024 година ще има локални и европейски избори, и до момента в който държавното управление би трябвало да свика общи избори до март 2025 година, има непрекъснати спекулации, че обединението може да свика такива през идната година.

Г-жа О'Съливан сподели пред BreakingNews.ie: „ Независимо дали става въпрос за изображения, глас синтез... те могат да бъдат в действителност елементарно създадени в този момент, даже от всеки без опит в ИИ. Мисля, че това е нещо, за което ще би трябвало да бъдем доста бдителни по време на изборите. "

Законът за ИИ на Европейски Съюз има за цел да вкара известна регулация в региона. Г-жа О'Съливан обаче уточни, че евентуално няма да ще влезе в действие до към 2025 година, защото се сблъска с препъни-камъка пред генеративния AI.

„ Мисля, че по-големият проблем е, че не сме открили в действителност правила и правила за цифровото пространство като цяло. Там, където това излезе на напред във времето, са обществените медии и виждаме това, което бих нарекъл бедствия на обществените медии.

„ Саморегулирането не работи, знаем това. Виждали сме проблемите към обществените медийни принадлежности към токсично наличие, разпространение на дезинформация без никаква регулация, те се трансфораха в в действителност основни принадлежности в културните войни. “

Тя добави: „ Има някои неща, които Законът за ИИ на Европейски Съюз ще вкара, които ще да са използвани за този подтекст, да вземем за пример неща като в случай че генерирате нещо благодарение на AI, би трябвало да има някакъв тип воден знак. Разбира се, за това би трябвало да е някой, който следва разпоредбите, а не неприятен артист, само че мисля, че има други неща, които би трябвало да разгледаме.

„ Наред с регулирането, би трябвало да работим с софтуерните компании по този въпрос. Какви са усъвършенстваните технологии за разкриване, които могат да се употребяват за развенчаване и схващане на тези дълбоки имитации? Процесите на инспекция на обстоятелствата също са в действителност значими. "

Г-жа О'Съливан също счита, че осведомителните и просветителни акции за обществеността по отношение на AI са жизненоважни.

" Едно от нещата, за които приказвам доста са ниските равнища на AI просветеност измежду необятната общност ", сподели тя. " Повечето хора имат неприятно схващане за AI, по какъв начин работи и какви са общите последствия, тъй че този тип обучение и информираност за капацитета на deepfakes всички са част от тази по-широка картина.

„ Трябва да обединим доста хора по време на пътуването: софтуерни компании, политици, регулатори, политици и обществеността. “

Г-жа О'Съливан постоянно работи в цивилен размисли към AI и тя сподели: „ Двете най-често срещани неща са рекомендациите на Netflix и убийството роботи. Има толкоз доста AI приложения по средата.

„ Не единствено с токсично наличие и дезинформация, само че хората в действителност не знаят какъв брой доста решения се вземат за тях в този момент от логаритми. Какво се случва с информацията, когато те го качват в обществените медии, по какъв начин данните ви се събират, какъв брой постоянно сте уловени от системи за наблюдаване. С доста от нещата няма нездравословно влияние.

" Мисля, че просто общото образование на хората и позволявайки им да схванат тези неща... и за какво законодателството е значимо.

„ Помислете за нещо като GDPR или отбрана на данните. Ако не сте удовлетворени от метода, по който някой е третирал вашите данни, можете да се оплачете на Комисар по отбрана на данните, само че ние нямаме нищо сходно за AI или обществени медии.

„ Повечето жители не знаят защо да се оплачат или по какъв начин да формулират проблем или нарушаване, а това е защото AI грамотността е в действителност неприятна. “

Тя сподели, че огромен проблем е, че законодателството и актовете за AI „ се вкарват доста постепенно “ заради сложността на казуса, до момента в който „ технологията е точната насреща, бърза напред. Миналата година по това време даже не бихме говорили за ChatGPT, в този момент той даже не е водещият генеративен AI инструмент ".

Г-жа О'Съливан сподели, че изображенията, които могат да бъдат направени с генеративен AI, са " плашещо положителни “.

Тя сподели, че Избирателната комисия, която ще преглежда ИИ дружно с надзора на изборите, би трябвало да работи с медии и лица, с цел да откри правила за инспекция на обстоятелствата.

Въпреки това може да е невероятно да се предотвратят неприятни артисти, употребяващи AI в опит да се намесят в изборите, госпожа О'Съливан сподели, че Избирателната комисия би трябвало да се концентрира върху социална осведомителна акция.

„ Манипулирано наличие: какво е това? Как може да се употребява? Какви ще бъдат другите типове? Те могат да бъдат видео, аудио, кражба на идентичност. Просто обща акция за това по какъв начин наподобява дезинформацията онлайн... това е добра процедура като цяло да образовате жителите си по този въпрос, освен в избирателен сюжет, само че е доста значимо за това. “

Много обществени медии компании имат офиси в Дъблин, в това число такива като Meta (Facebook, Instagram, WhatsApp), X, някогашен Twitter, и TikTok.

Г-жа О'Съливан сподели, че държавното управление и изборната комисия би трябвало да се опитат да се възползват от тази непосредственост до водещи софтуерни компании.

„ Един огромен проблем е, че огромна част от софтуерната експертиза се намира само в тези компании, а не в организации като Избирателната комисия “, изясни тя. „ Трябва да има обединяване на хора, които в действителност схващат изборите, и хора, които схващат технологията и по какъв начин тя може да се употребява. “

Един образец, който беше даден за това по какъв начин AI може доста да повлияе на ирландец изборите биха били подправен видеоклип на водача на Tánaiste и Fianna Fáil Micheál Martin, който демонстрира, че ще бъде отворен за коалиция с Шин Фейн. подвеждащо наличие релативно елементарно.

" Те могат да бъдат много реалистични... видео и аудио. По-прости неща като текст, който изобразява политически фигури, които вършат изказвания или вземат участие в дейности, също могат да бъдат безапелационни.

„ Може елементарно да се направи по метод, който е задоволително ангажиращ и задоволително манипулиращ. Това е мястото, където се намесва аспектът на обществените медии... става въпрос за профилиране на потребителите, върху които може да има по-голямо въздействие, и това е нещо, което съгласно мен е в действителност значимо за Избирателната комисия, да влезе там. “

Тя добави: „ Щеше да е същото за гарда към протестите, в действителност да имат достъп до мрежите на обществените медии и да схващат тези консуматори, които са по-манипулируеми.

„ Хората, които основават, вършат това, те профилират хора, тъй че би трябвало да вършим това от другата страна на оградата. "

Година на изборите

Следващата година ще забележим локалните и европейските избори в Ирландия, вероятни общи избори, евентуални общи избори в Обединеното кралство и президентските избори в Съединени американски щати.

Г-жа О'Съливан сподели, че това покачва риска от потреблението на AI за интервенция в тях.

„ Сливането на разнообразни избори. Дори да погледнете протестите в Дъблин, имаше доста мнения от крайнодесни групи в Обединеното кралство и Съединени американски щати по въпроса. Това е световен феномен. Особено към Фейсбук видяхме по какъв начин това се употребява за манипулиране и се намесват в избори по света. Хората ще употребяват избори по целия свят, с цел да усъвършенстват тези техники. Мисля, че може да минат много мрачни няколко години, преди да въведем регулацията и да се проведат тези много нашумяли избори.

„ Изборите в Съединени американски щати ще бъдат голяма цел; толкоз са поляризирани, културните войни са толкоз вкоренени там. Мисля, че това, което виждаме там, може да е в действителност гадно. “

Посочвайки какъв брой елементарно може да бъде генеративният ИИ да стане вирусен, госпожа О'Съливан загатна известния облик на Поуп Франсис, облечен в пухено яке.

„ Това евентуално беше най-ефективното надълбоко подправяне до момента. Не е основано от никакъв боец на дезинформацията, а просто фен, който го е основал. Просто демонстрира какъв брой елементарно е е в този момент и по какъв начин нещата стават вирусни. "

Г-жа О'Съливан също се притеснява, че диалозите към AI и deepfakes ще накарат хората да станат по-скептични във връзка с изборите.

„ Хората приказват за това по какъв начин AI ще промени света с всички екзистенциални неща, аз нямам доверие в това, само че едно от нещата, които мисля, че в действителност ще трансформират света, е, че всеки има достъп до подобен мощен AI в джобовете си.

„ Той демократизира изкуствения разсъдък, което от една страна е положително нещо, като дава тези принадлежности на хората, само че постоянно ще има неприятни артисти, които ги употребяват за злонамерени цели.

„ Оттогава се приказва повече за контролиране на AI, хората се опасяват повече от AI, което не беше преди година, тъй като евентуално не са мислили доста за това.

„ Това, което може да видите е, че ние ще имаме изборите, целият дискурс към дълбоките имитации и това, което евентуално ще приключим, са хората, които са по-скептични към изборния развой, тъй като ще има повече диалози към манипулираните неща. “

Мисля, че изборната комисия би трябвало да намерения по какъв начин ще наподобява този развой в този момент.

Тя обаче добави: „ Мисля, че това е път, през който би трябвало да преминем.

„ Трябва да повишим осведомеността за това, да го изведем на напред във времето и да приказваме с хората за това. Но мисля, че в това време, до момента в който сме на тази граница сред технологията и изборите, ще забележим спад в публичното доверие в изборите, което е дестабилизиращо, няма спор.

" Това е единственият метод да защитим доверието в институциите и демократичния развой. Това би трябвало да е обучение и осведоменост. Мисля, че би трябвало да стартираме да мислим за... несъмнено, гласоподавателите са по-възрастни, тъй че целенасочени акции за тях, само че би трябвало да преподаваме AI просветеност в нашите начални учебни заведения.

„ Хората би трябвало да са наясно с разликата сред действителния живот и живота, генериран от AI, само че заради това, което ни следва, мисля, че изборната комисия би трябвало да помислим по какъв начин ще наподобява този развой в този момент. "